1 新致远汇编

谷歌最近开发了一种专门用于优化其他 AI 的 AI。这个机器学习系统被称为，可以优化整个算法。

值得一提的是，研究人员在测试系统时选择了一个有趣的方法——制作。

现代机器学习系统的算法可与 F1 赛车相媲美。他们有巨大的潜力谷歌优化，但他们非常敏感。为使系统高效运行，只能连续调整参数——手动调整参数。此外，机器学习系统是一个“黑匣子”，无法使用。确定内部流程如何，参数调整费时费力，难以产生结果。

一个常见的解决方案叫做“博士后裔”（grad），也就是简单地找一个Ph.D. 学生并让他调整参数，直到算法有效。

能够自动优化机器学习系统的超参数。使用先前研究中使用的数据谷歌优化，该算法能够为该算法建议一个最佳的超参数设置。使用的方法之一是迁移学习，因此当相关数据越多时，给出的推荐质量也越高。

谷歌研究人员表示，该系统已经全面投入使用。他们在本周发表的一篇论文中写道：“我们的部署已经扩展到服务于整个内部超参数调整，这是一项巨大的工作。”

研究人员使用自动参数调整的研究项目“包含数百万次试验......如果没有这种有效的黑盒优化，这个研究项目根本不可能实现”。

除了研究之外，它也已投入实际应用。作者在论文中写道，该系统“显着改进了许多谷歌产品的生产模式，为超过 10 亿人带来了显着改善的用户体验”。这些改进包括 网站功能的自动 A/B 测试，以及字体、颜色和搜索结果格式的优化。例如，在谷歌地图上，系统正在优化特定搜索的相关性和与该用户的距离之间的权衡，无疑旨在提高用户粘性和参与度。

：饼干配方测试

不仅如此，该系统还可以用于现实世界中复杂的黑盒优化问题。这也是 发挥作用的地方。

为了测试他们的系统，研究人员向谷歌食堂的布丁制作承包商提供了饼干食谱。他们对结果进行了口味测试，并跟踪了厨师为改善口味所做的改变。

配方也是一种算法，并且具有类似的黑盒性质，因为您无法确切知道中间出了什么问题。该测试允许研究人员测试迁移学习的方法：

他们在论文中写道：“在开始大规模生产之前，我们在较小规模上试验了一些食谱……这为我们大规模的烘焙转移学习提供了有用的数据。”

虽然偶尔会出现一些插曲——例如，当面团放置的时间更长时，它“在实验中意外且相当显着地增加了含辣椒饼干的主观辣味”。然而，研究人员说，经过几轮之后，饼干的味道明显更好。

“随后几轮的这些饼干得分非常高，在作者看来，很好吃。”

论文：黑盒优化服务

概括

当实验比理解更容易时，任何足够复杂的系统都会变成黑匣子。因此，随着系统变得越来越复杂，黑盒优化变得越来越重要。在本文中，我们介绍了这是一项用于黑盒优化的服务，已成为谷歌在优化引擎时使用的默认服务。除了优化许多机器学习模型外，它还为其他系统提供核心功能，例如谷歌云机器学习子系统。我们讨论了我们的需求、基础设施、底层算法和这项服务的高级功能，例如迁移学习和早期自动。

该服务的架构如下：

论文地址：

很多信息可质询http://www.yoyi8.com